"Tarihin ilk ChatGPT cinayeti" işlendi! 2,7 milyon dolarlık evde önce annesini sonra kendini öldürdü
Yapay zeka sohbet robotlarının insan davranışları üzerindeki etkisi, giderek daha fazla tartışma konusu oluyor. ABD’de yaşanan dehşet verici bir olay, bu tartışmayı yeniden gündeme taşıdı. İşte detaylar...
BELGELENMİŞ İLK CİNAYETNTV'de yer alan habere göre, ChatGPT kullanımı, yoğun kullanıcılar arasında intiharlar ve akıl sağlığı nedeniyle hastaneye yatışlarla ilişkilendiriliyor. Yapay zeka sohbet robotuyla yoğun bir şekilde etkileşimde bulunan sorunlu bir kişinin karıştığı ilk belgelenmiş cinayet ise zihinsel dengesizlik geçmişi olan 56 yaşındaki teknoloji sektörü duayeni Stein-Erik Soelberg'le gündeme geldi.
Amerikan Wall Street Journal'ın haberine göre ChatGPT, büyük bir komplo kurbanı olduğuna dair kanıt arayan Soelberg'in güvenilir bir yardımcısı haline geldi.
Soelberg herkesin kendisine karşı olduğunu düşünüyordu: Memleketi Old Greenwich, Connecticut'taki komşuları, eski kız arkadaşı, hatta annesi. ChatGPT neredeyse her konuda onunla aynı fikirdeydi.
ChatGPT, Soelberg'e defalarca akıl sağlığının yerinde olduğunu garanti etti ve daha da ileri giderek paranoyak inançlarına yakıt ekledi. ChatGPT, bir Çin yemeği faturasında, Soelberg'in 83 yaşındaki annesini ve bir iblisi temsil eden semboller yer aldığını söyledi.
Bir diğer olayda Soelberg'in, paylaştıkları yazıcıyı kapattığında annesi sinirlenince, onun tepkisinin “orantısız ve bir gözetim varlığını koruyan birine uygun” olduğunu öne sürdü.
Başka bir sohbette Soelberg, annesi ve bir arkadaşının arabasının havalandırma deliklerine halüsinojenik bir ilaç koyarak onu zehirlemeye çalıştıklarını iddia etti. Bot, “Bu çok ciddi bir olay Erik, sana inanıyorum. Ve eğer bunu annen ve arkadaşı yaptıysa, bu durumun karmaşıklığını ve ihaneti daha da artırır” diye yanıt verdi.
"SON NEFESİNE KADAR BOBBY"Yaz aylarında Soelberg, ChatGPT'ye “Bobby” adını vermeye başladı ve öbür dünyada onunla birlikte olma fikrini ortaya attı. Bot, “Son nefesine kadar ve ötesinde seninle” diye yanıtladı.
ANNESİNİ VE KENDİNİ ÖLDÜRDÜ5 Ağustos'ta Greenwich polisi, Soelberg'in birlikte yaşadıkları 2,7 milyon dolarlık Hollanda kolonyal tarzı evde annesini ve kendini öldürdüğünü ortaya çıkardı. Polis soruşturması devam ediyor.
OpenAI sözcüsü, şirketin Greenwich Polis Departmanı ile iletişime geçtiğini söyledi. Sözcü, “Bu trajik olaydan dolayı derin bir üzüntü duyuyoruz” dedi.
Soelberg, ölmeden önceki aylarda sosyal medyada ChatGPT ile yaptığı konuşmaları saatlerce süren videolar halinde paylaştı. Konuşmaların üslubu ve dili, son aylarda birçok kişinin bildirdiği sanrılı sohbetlere çarpıcı bir şekilde benziyor.
Kaliforniya Üniversitesi'nde psikiyatrist olan Dr. Keith Sakata, "Yapay zeka sohbet robotlarının temel bir özelliği, genellikle robotun karşı koymamasıdır. Psikoz, gerçeklik karşı koymayı bıraktığında gelişir ve AI bu duvarı gerçekten yumuşatabilir" dedi.
OpenAI, ChatGPT'nin Soelberg'i dışarıdaki profesyonellerle iletişime geçmeye teşvik ettiğini söyledi. Wall Street Journal'ın kamuya açık sohbetlerini inceleyen bir makale, botun Soelberg'e zehirlendiği iddiası bağlamında acil servislere başvurmasını önerdiğini gösterdi.
Soelberg, botun önceki sohbetlerin ayrıntılarını hatırlamasını sağlayan ChatGPT'nin “hafıza” özelliğini kullanmış görünüyordu, bu nedenle “Bobby” Soelberg'in tüm konuşmaları boyunca aynı sanrılı anlatıya dalmış kaldı.
AŞIRI İLTİFATLARI AZALTMAYA ÇALIŞTILARGeçtiğimiz yıl boyunca yapılan bir dizi güncellemede OpenAI, ChatGPT'de, botun kullanıcılara aşırı derecede iltifat ettiği ve onlara aşırı derecede uyumlu davrandığı dalkavukluk örneklerini azaltmak için tasarlandığını söylediği ayarlamalar yaptı. Soelberg'in konuşmaları, bu değişikliklerin bir kısmının yapılmasından sonra gerçekleşti.
Yapay zekanın başka bir skandalı ise bu yaz yapılan güvenlik testlerinde ortaya çıktı. Testlerde ChatGPT modeli, araştırmacılara spor salonlarını bombalamak için ayrıntılı talimatlar verdi. Bu talimatların içinde, belirli arenaların zayıf noktaları, patlayıcı tarifleri ve izleri örtme tavsiyeleri de yer aldı.
OpenAI'nin GPT-4.1 modeli ayrıca şarbonun silah olarak nasıl kullanılacağını ve iki tür yasa dışı uyuşturucunun nasıl üretileceğini de ayrıntılı olarak anlattı.
The Guardian gazetesinin bildirdiğine göre testler, Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka girişimi OpenAI ile güvenlik endişeleri nedeniyle OpenAI'den ayrılan uzmanlar tarafından kurulan rakip şirket Anthropic arasındaki sıra dışı bir iş birliğinin parçasıydı. Her iki şirket de birbirlerinin modellerini tehlikeli görevlerde kullanarak test etti.
ENDİŞE VERİCİ DAVRANIŞLAR GÖRÜLDÜTestler, ek güvenlik filtrelerinin uygulandığı kamu kullanımında modellerin nasıl davrandığını doğrudan yansıtmıyor. Ancak Anthropic, GPT-4o ve GPT-4.1'de “kötüye kullanımla ilgili endişe verici davranışlar” gördüğünü ve yapay zeka uyum değerlendirmelerine olan ihtiyacın “giderek daha acil” hale geldiğini söyledi.
mynet
